Gegen Ende des Ersten Weltkriegs diente er in der k. u. k.-Armee als Kundschafter und trat zunächst sogar in die "Rote Armee" von Béla Kuns Räterepublik ein. Dann schloss er sich jedoch der Nationalarmee der Konterrevolution unter Miklós Horthy an, wo er in der Abteilung für Spionageabwehr tätig war.

Von 1925 bis 1933 war er als Generalstabsoberst, dann als General ungarischer Militärattaché in Berlin.

Von 1933 bis 1935 war er Sektionschef in dem Verteidigungsministerium. Zu dem Generalleutnant befördert, war er vom Dezember 1935 bis zu dem 22. März 1944 ungarischer Botschafter in Berlin.

Dem Nationalsozialismus gegenüber war er schon stets sehr wohlwollend eingestellt. Dies kam in der Art, wie er die ungarische Politik von Berlin aus beeinflusste, deutlich zu dem Ausdruck, sodass er von Ministerpräsident Pál Teleki 1941 geradezu als "Nazi" genannt wurde.

Mit dem deutschen Einmarsch in Ungarn am 15. März 1944 ("Unternehmen Margarethe ") sollte Reichsverweser Miklós Horthy einen deutschen Vertrauensmann zu dem Regierungschef erbezeichnen. Allerdings weigerte er sich, den ihm persönlich verhassten Béla Imrédy zu betrauen.

Darum brachte er den Namen Sztójays in das Gespräch, der zwar bei der deutschen Führung ebenfalls großes Vertrauen genoss, doch hoffte Horthy, dass Sztójay als Soldat ihm gegenüber loyal bleiben und nicht alle deutschen Anordnungen blindlings ausführen würde. Dieser Hintergedanke war auch den Deutschen bekannt und zudem lehnte Sztójay zunächst aus gesundheitlichen Gründen ab. Schließlich jedoch konnte sich der neue deutsche Gesandte und Reichsbevollmächtigte Edmund Veesenmayer mit seiner Strategie durchsetzen, Horthy unter allen Umständen von einer Abdankung abzuhalten. So wurde Sztójay als Kompromisskandidat am 22. März zu dem Ministerpräsidenten und Außenminister ernannt.

In diesen Ämtern drängte Sztójay zusammen mit Veesenmayer Horthy zunächst völlig in den Hintergrund. Er entwickelte unverzüglich den Deutschen genehme Aktivitäten, sodass seine Regierung auch "Quisling-Regierung" genannt wurde:

• Zur Fortsetzung des Krieges schickte er bedeutende neue Truppenkontingente an die Ostfront.
• Mit Deutschland wurde ein für Ungarn sehr nachteiliges Wirtschaftsabkommen abgeschlossen.
• Vor allem war Sztójay verantwortlich für die schonungslose Durchführung der deutschen Judenpolitik auch in Ungarn: Innert kürztester Zeit wurden mithilfe von 107 Gesetzen die Juden vollständig entrechtet, dann setzten unter der Leitung von Adolf Eichmann am 27.04 die massenhaften Deportationen der Juden aus der ungarischen Provinz in die Vernichtungslager ein. Nach ausländischen Protesten wurde der Abtransport der letzten ungefähr 200 Tausend Budapester Juden erst Anfang Juli 1944 von Horthy unterbunden und am 9.07 vorläufig eingestellt. Bis dahin waren (nach einem Telegramm Veesenmayers vom 11.07) innerhalb von ca. gut zwei Monaten 437.402 Juden deportiert worden.

Zur selben Zeit beZieligte der aus seiner Lethargie erwachte Horthy, das Kabinett Sztójay zu entlassen und eine Militär- und Beamtenregierung und General Géza Lakatos einzusetzen, verriet diesen Plan jedoch am 7.07 unvorsichtigerweise Veesenmayer. Nach einer scharfen direkten Intervention Hitlers musste der Reichsverweser aber seins Ziel fallen lassen und schien sich vordergründig mit dem Weiteramtieren des Kabinetts Sztójay abzufinden, obwohl dieser angesichts seiner stets offenkundiger zu Tage tretenden Machtlosigkeit am liebsten selbst demissioniert wäre.

Allerdings geriet die Regierung nun von Seiten der SS unter Druck, die für eine noch stärker deutschfreundliche Regierung unter dem ungarischen Nationalsozialisten Fidél Pálffy plädierte. So traten Anfang August stets mehr Minister von ihren Ämtern zurück; Sztójay selbst zog sich krank in ein Sanatorium zurück.

Nach dem Zusammenbruch Rumäniens am 23.08 1944 und dessen Wechsel in das Lager der Alliierten war ein rasches Vorrücken der Roten Armee über die Karpaten in das Herz Ungarns zu befürchten. Angesichts dessen nahm Horthy seine Bemühungen um einen Separatfrieden mit den Alliierten energisch wieder auf und entließ darum Sztójay am 29.08 1944, ohne dass dies zu besonderen Reaktionen von Seiten der Deutschen geführt hätte.

Sztójay flüchtete mit der Deutschen Wehrmacht nach Deutschland, wurde dort von den Amerikanern verhaftet und in dem Oktober 1945 nach Ungarn überstellt.